Pasukan ini telah diasaskan pada tahun 1901 dan berpusat di Philadelphia. A's merupakan salah satu daripada lapan pasukan asal American League (AL). Separuh pertama kurun ke-20 menyaksikan pasukan ini didominasi oleh pengurus ikonik Connie Mack yang mengendalikan pasukan dari awal penubuhan sehingga tahun 1950. A's merekodkan kemenangan dalam tujuh musim pertamanya termasuk pennant AL pada tahun 1902 dan 1905. Tahun 1905 pula menandakan kemunculan pertama pasukan di Siri Dunia walaupun tewas kepada New York Giants. A's kembali ke cabaran Siri Dunia pada tahun 1910 dan 1911 dengan meraih kejayaan kedua-duanya hasil sumbangan pitcher Charles Bender dan Eddie Plank, serta pemain third baseman Frank “Home Run” Baker, second baseman Eddie Collins serta pemain-pemain lain yang digelar “$100,000 infield” (gelaran tersebut diraih kerana nilai pasaran keempat-empat pemain infield yang ada dalam pasukan ketika itu). Pasukan ini mara ke dua kejuaraan Siri Dunia lagi pada tahun 1913 dan 1914 (menang ke atas New York Giants dan tewas kepada Boston Braves masing-masing) sebelum pembentukan Federal League. Hal ini telah memaksa pengurus Mack untuk menjual bintang-bintangnya kepada pasukan lain untuk memastikan pasukan lain dapat menyelesaikan kemelut. Kesannya, tempoh dominasi A's pertama disusuli oleh pengakhiran musim di tangga terakhir pada tujuh tahun berturut-turut iaitu dari tahun 1915 sehingga 1921 (termasuk rekod 117 kekalahan pada tahun 1916).

Tahun 1925 menjadi tahun bersejarah bagi pasukan ini yang bergelut. Selain menyaksikan A's menamatkan musim sebagai rekod kemenangan pertama dalam dekad 1920-an, ia juga memperlihatkan tiga orang pemain yang bakal menerima Dewan Kemahsyuran iaitu Jimmie Foxx, Lefty Grove dan Mickey Cochrane melakukan debut untuk pasukan. Mereka bertiga menjadi teras kukuh pasukan bersama outfielder terhebat sepanjang zaman, Al Simmons. Selepas menghuni tempat kedua di belakang kuasa utama New York Yankees pada 1927 dan 1928, A's akhirnya memenangi pennant AL dan gelaran Siri Dunia pada 1929 dan 1930. A tewas dalam laluan ketiga berturut-turut mereka ke Siri Dunia pada 1931 kepada St. Louis Cardinals dan ia diikuti oleh tempoh kemerosotan iaitu kembali ke tangga tercorot AL. Dalam 20 musim iaitu antara tahun 1935 dan 1954, A's tidak pernah berjaya menduduki lebih daripada tempat keempat liga. Prestasi pasukan yang hambar dan ditambah dengan kemunculan pesaing sekota, Phillies di National League menjurus kepada kemelut masalah kewangan pada pemilik A's dan penjualan pasukan kepada ahli perniagaan luar pada 1954. Hal ini mendorong kepada perpindahan A's ke Kansas City, Missouri pada 1955.

Pasukan A’s tidak meraih musim kemenangan sepanjang 13 musim mereka di Kansas City. Permainan mereka di bandar itu penting bagi ahli perniagaan ranggi, Charlie Finley yang membeli pasukan ini pada 1960. Finley memperkenalkan beberapa pembaharuan segera kepada pasukan dan stadium untuk meningkatkan jumlah kehadiran penontont tetapi gagal mendatangkan impak. Kesannya, pendapatan pasukan mengalami kerugian dan dimarakkan dengan pertelingkahan antara beliau dengan pemimpin sivil setempat sekali gus memaksa Finley memindahkan pasukan ini ke Oakland pada 1968. Dibarisi pemain-pemain muda berbakat seperti outfielder Reggie Jackson dan pitcher Catfish Hunter, Vida Blue dan Rollie Fingers, A’ terus mengubah nasib pasukan ini kepada tuah apabila beraksi di tempat baru dengan merekodkan tiga kejuaraan Siri Dunia berturut-turut dari tahun 1972 sehingga 1974. Pasaran kecil A's telah menyebabkan mereka kehilangan bintang-bintang ternama pasukan apabila kemunculan ejen bebas pada penghujung musim 1976 sebelum mereka memasuki fasa baru bagi rombakan semula.

Pasukan A’s pada era 1980-an dan awal 1990-an mempamerkan pemain-pemain unggul seperti Mark McGwire, Dennis Eckersley dan raja stolen-base Rickey Henderson. Pasukan ini melangkah ke tiga kejuaraan Siri Dunia berturut-turut iaitu dari tahun 1988 sehingga 1990 dengan menjuarai Bay Area showdown mengatasi cabaran San Francisco Giants. Pada lewat 1990-an, Athletics telah mengubah strategi pemasaran dengan memfokuskan pemerolehan yang murah, membuah perubahan dalam analisis statistik (analisis tersebut dirujuk sebagai sabermetrik) menggantikan cara lama. Strategi tersebut dikenali meluas dengan nama “Moneyball” (nama tersebut sempena tajuk jualan buku yang laris mengisahkan tentang jurulatih A's, Billy Beane). Kemudian, banyak pasukan melaksanakan pelbagai strategi setelah Beane membina pasukan yang berjaya layak ek lima penampilan postseason dalam tempoh tujuh tahun (2000-2006) dengan memiliki salah satu perbelanjaan yang rendah dalam besbol.

A’s tidak berjaya mengulangi kejayaan mereka apabila mengekalkan perbelanjaan yang rendah pada tahun-tahun berikutnya. Walau bagaimanapun, pada tahun 2012, pasukan ini telah menghasilkan peningkatan 20 perlawanan kemenangan berbanding rekod pada tahun 2011 dengan memintas pasukan Texas Rangers apabila sembilan baki permainan pada aksi musim. Pasukan ini seterusnya meraih kejuaraan AL West sebelum tewas pada pusingan playoff. A's meraih kejuaraan divisyen lagi pada 2013 tetapi sekali tersingkir di AL Division Series. Pada tahun 2014, Oakland mempamerkan aksi terbaik apabila menghasilkan rekod terbaik di MLB (59-36) ketika aksi All-Star. Kemudian, pasukan ini mensia-siakan kelebihan mendahului divisyen dengan menamatkan satu baki perlawanan dengan Seattle Mariners untuk perebutan posisi kedua AL bagi aksi wild card. A's akhirnya tewas dalam aksi wild card kepada Kansas City Royals dalam 12 ining sekali gus menjadikan A's sebagai musim paling mengecewakan bagi mana-mana pasukan dalam sejarah terkini besbol.

Prestasi Oakland turun naik apabila mereka menamatkan tiga musim berturut-turut di tempat terakhir divisyen pada tahun 2015 hingga 2017. Pada tahun 2018, A's merekodkan 22 kemenangan untuk melayakkan pasukan mereka ke kemunculan playoff secara tidak dijangka. Mereka akhirnya berakhir dengan kekecewaan di aksi wild card. A's mengulangi keputusan tersebut (rekod 97-65 dan kekalahan di wild card) pada 2019. Pada musim berikutnya yang dipendekkan akibat pandemik Covid-19, pasukan ini sekali lagi layak ke playoff dan disingkirkan di siri divisyen. A's terlepas aksi postseason pada 2021.